Valencia

Albiol ký hợp đồng với Valencia CF từ năm 9 tuổi sau khi gây ấn tượng trong một trận giao hữu của đội bóng anh đang thi đấu là Benidorm CF với Valencia. Anh có trận ra mắt ở đội chính vào ngày 24 tháng 9 năm 2003 ở vòng loại thứ nhất cúp UEFA gặp AIK Fotboll, nhưng mùa giải đầu tiên của anh ở cấp độ chuyên nghiệp vẫn hầu như chỉ chơi cho đội B.

Ở mùa giải 2004-05, anh được đem cho Getafe CF mượn, nhưng do dính phải một chấn thương sau một vụ tai nạn ôtô nên phải đến tháng 1 anh mới ký hợp đồng với đội bóng này, góp công lớn giúp câu lạc bộ trụ hạng thành công.

Mùa giải sau đó Albiol trở lại Valencia và ngay lập tức chiếm được vị trí trong đội hình chính thức. Ở trận khai mạc mùa giải 2006-07, anh ghi bàn ấn định tỉ số 2-1 vào lưới Real Betis. Trong 4 năm ở đây, chiến công lớn nhất của anh là giúp Los Che vô địch cúp quốc gia 2007-08.

Real Madrid

Vào ngày 25 tháng 6, Albiol gia nhập Real Madrid với mức giá vào khoảng 15 triệu euro, trở thành cầu thủ Tây Ban Nha đầu tiên được chiêu mộ dưới triều đại Florentino Perez. Vào ngày 2 tháng 7, anh chính thức ra mắt đội bóng ở sân Santiago Bernabéu, nhận áo đấu 18 từ Rubén de la Red, người phải ngồi ngoài cả mùa giải do bị bệnh về tim.

Albiol ghi bàn đầu tiên cho Merengues vào ngày 8 tháng 12, trong chiến thắng 3-1 ở cúp C1 trước Olympique Marseille.